Thời kỳ Nam Bắc triều, chính phủ có tổ chức phức tạp, Tùy Văn Đế phế trừ thể chế phỏng theo Chu Lễ của Bắc Chu, sáng lập ra chế độ lục quan, chính thức xác lập tam tỉnh lục bộ chế, phát triển toàn diện thể chế trung ương tập quyền. Triều Tùy đặt ra các hư chức tam sư, tam công; mang tính cao quý trên danh nghĩa, song không có quyền lực. Thời Tùy, quyền của hoàng đế cực kỳ lớn, quyền của tể tướng bị phân cho ba cơ quan thượng thư tỉnh (thượng thư bộc xạ), môn hạ tỉnh (nạp ngôn) và nội sử tỉnh (nội sử lệnh), khiến họ kiểm soát lẫn nhau, mà lại nghe theo lệnh của Hoàng đế.[33] Nội sử tỉnh khởi thảo chiếu lệnh, là cơ cấu quyết sách; Môn hạ tỉnh có nhiệm vụ phong bác, là cơ cấu thẩm nghị; Thượng thư tỉnh chấp hành chính lệnh, là cơ quan hành chính. Thượng thư tỉnh là trung tâm hành chính, quản lý Lục bộ, mệnh lệnh của Lục bộ lại giao cho cửu tự ngũ giám chấp hành. Cơ quan giám sát trung ương là ngự sử đài, do ngự sử đại phu phụ trách, kiểm soát hình pháp điển chế của quốc gia, chỉnh lý triều đình. Đô thủy đài quản lý vận chuyển đường thủy, quản lý Đại Vận Hà và mương thủy lợi.

Thượng thư tỉnh chủ yếu do Lục bộ: Lại bộ, Lễ bộ, Binh bộ, Dân bộ, Hình bộ, Công bộ hợp thành, mỗi bộ lại phân thành 4 ti. Lại bộ đứng đầu trong Lục bộ, kiểm soát việc tuyển dụng, thăng chức, chuyển chức, phong thưởng, xem xét thành tích công tác của quan viên; đóng vai trò quyết định trong nền chính trị quốc gia. Hộ bộ quản lý nghiệp vụ hộ khẩu, thu thuế, tính toán; duy trì chi tiêu của triều đình. Lễ bộ quản lý nghiệp vụ lễ nghi, tế tự, tiến cử, ngoại giao. Binh bộ quản lý nghiệp vụ quốc phòng như võ tuyển, do thám khảo sát, huấn luyện tướng sĩ, sản xuất vũ khí. Hình bộ quản lý nghiệp vụ pháp vụ như mệnh lệnh, hình pháp, giam cầm lao dịch. Công bộ quản lý nghiệp vụ kinh tế và hậu cần như nông nghiệp, xây dựng, thủ công nghiệp. Cửu tự ngũ giám là cơ quan xử lý công vụ của chính quyền trung ương; cửu tự phân thành: thái thường, quang lộc, vệ úy, tông chính, thái phó, đại lý, hồng lô, tư nông và thái phủ; ngũ giám có quốc tử giám, tương tác giám, thiếu phủ giám, quân khí giám, đô thủy giám. Tự giám chấp hành mệnh lệnh do Lục bộ truyền xuống, sau khi chấp hành thì phải thuật lại. Khi xử lý cụ thể sự vụ, tự giám có quan hệ lệ thuộc và thừa thụ với Lục bộ.[31]

Thời Lương Vũ Đế, Nam triều Lương trong việc tuyển chọn nhân tài hữu dụng đã có mầm mống của chế độ khoa cử, song cửu phẩm trung chính chế từ thời Ngụy-Tấn vẫn được tiếp tục. Thời Tùy, vào năm Khai Hoàng thứ 7 (587) thời Tùy Văn Đế, chính thức thiết lập chế độ khoa cử, thay thế cửu phẩm trung chính chế, từ đó trong việc tuyển quan không cần tra hỏi về gia thế. Chế độ khoa cử vào sơ kỳ được tiến hành bằng việc các châu mỗi năm tuyển chọn tiến cử ba nhân tài, tham gia khảo thí 'tú tài khoa' và 'minh kinh khoa'; năm Đại Nghiệp thứ 2 (606) thời Tùy Dạng Đế, tăng thêm 'tiến sĩ khoa'. Đương thời, tú tài thi phương lược (phương pháp và mưu lược), tiến sĩ thi thời vụ sách (trả lời câu hỏi luận thời vụ), minh kinh thi kinh thuật; hình thành một khuôn khổ hoàn chỉnh cho chế độ phân khoa tuyển tài quốc gia. Đương thời, 'minh kinh' là cao cấp nhất, 'tiến sĩ' xếp sau.[34] Đương thời, chế độ tuyển sĩ chỉ gọi là 'tú tài khoa', có khác biệt nhất định so với khoa cử thời Đường. 'Tú tài khoa' có thể được xem là khởi đầu cho khoa cử, so với thời Đường sau này thì không hoàn chỉnh, trên thực tế tác dụng chọn kẻ sĩ làm quan không lớn, song vẫn cải biến được cục diện thế tộc lũng đoạn quan chức. Chế độ khoa cử chiếu theo yêu cầu đã có từ lâu về địa vị chính trị của thứ tộc địa chủ, hòa hoãn mâu thuẫn giữa họ với triều đình, khiến họ trung thành với triều đình, đối với triều đình có lợi ích là tuyển chọn được nhân tài giúp tăng cường hiệu suất chính trị, có tác dụng tích cực trong củng cố thể chế trung ương tập quyền. Dựa trên những kinh nghiệm từ việc thi hành chế độ khoa cử vào thời Tùy, chế độ khoa cử vào thời Đường đạt đến mức thành thục.

Luật pháp Bắc Chu có khi lỏng lẻo, có khi khắt khe, việc kiểm soát không tốt, dẫn đến hình phạt hỗn loạn. Sau khi Tùy Văn Đế tức vị, vào năm 581 mệnh Cao Quýnh và những người khác tham khảo luật chế cũ của Bắc Chu và Bắc Tề để định ra pháp luật. Năm 583, Hoàng đế lại khiển Tô Uy và những người khác tu đính thêm, hoàn thành "Khai Hoàng luật". "Khai Hoàng luật" lấy "Hà Thanh luật" của Bắc Tề làm nền tảng, tham khảo luật điển của Bắc Chu và Nam triều Lương, giản hóa luật văn. Sử gọi là "hình võng giản yếu, sơ nhi bất thất" (lưới pháp luật ngắn gọn súc tích, thưa mà không để lọt), quy định đối với người phạm 10 tội: mưu phản, mưu đại nghịch, mưu bạn, ác nghịch, bất đạo, đại bất kính, bất hiếu, bất mục, bất nghĩa, nội loạn thì sẽ bị nghiêm khắc trừng trị không tha thứ, triều Đường sau này tiếp tục sử dụng. "Khai Hoàng luật" gồm 12 quyển, 500 điều, hình phạt phân thành 5 chủng: 'tử hình' (giết), 'lưu hình' (đày), 'đồ hình' (làm việc nặng), 'trượng hình' (đánh trượng), 'si hình' (đánh roi) với 20 cấp. Bộ luật này lại bỏ các hình phạt thảm khốc của các triều trước như 'tiên hình' (đánh roi tàn bạo), 'kiêu thủ' (chém rồi bêu đầu), là cơ sở pháp điển của các triều đại sau này.[35]